RoboTALES: Learning Reasoning-Guided Robot Policies via Task-Aligned Simulated Futures
RoboTALES: 用任务对齐模拟未来学习推理引导的机器人策略
🧭 LLM/VLM 协同推理与视频想象策略
University of California, San Diego
提出层次LLM规划器与VLM批评家联合引导视频生成,使机器人策略在长视野操作任务上显著优于现有方法
📌 工作参考价值(4 点)
- 层次化LLM任务分解可用于复杂推荐流程:将多步推荐(如先吸引兴趣再推荐买点)拆解为子目标序列,指导生成式模型逐步生成商品描述、话术或创意,提升过程可控性。
- VLM critic 反馈对齐生成目标:在文案/素材生成中引入视觉-语言模型做“想象结果”评估,通过 reward 微调内部表征,让生成内容更贴合最终转化意图,类似 RLHF 但针对多模态生成。
- 单阶段端到端训练框架:无需预训练视频模型分离,直接把规划、想象与策略学习串联优化,适合将 Agent 的规划模块与执行模块联合训练,减少模块间误差累积。
- 用生成式模型做“世界模拟器”:在推荐系统中,可以预测用户兴趣演化轨迹(想象未来行为),据此提前布局推荐序列,类似用扩散模型生成用户状态 rollouts。